【資料公開】Google CloudのLLM活用の選択肢を広げるVertex AIのパートナーモデル #midosuji_tech

データ事業本部 インテグレーション部 機械学習チームの鈴木です。

2024 年 9 月 11 日 にクラスメソッドの大阪オフィスで Midosuji Tech #2 という勉強会がありました。
「Google CloudのLLM活用の選択肢を広げるVertex AIのパートナーモデル」というタイトルで登壇しましたので資料を公開します。

https://classmethod.connpass.com/event/328623/

Midosuji Tech について

Midosuji Tech は、クラスメソッド株式会社の大阪オフィスで開催する IT 技術の勉強会です。気になる技術、流行りの技術など、技術全般について自由に語ったり議論するコミュニティです。

毎回テーマを決めて開催しますので、ご興味のあるテーマの際はぜひご参加ください！

登壇した資料

ポイント

Gemini以外の人気モデルを、インスタンスの用意なしにマネージドAPIとして利用できる点がポイントとご紹介しました。Vertex AIのAPIとして利用できます。

発表時点ではAnthropic ClaudeとMistral AIが一般提供されています。

リージョンについては以下のガイドで紹介されています。発表時点では東京リージョンはまだのためご留意ください。

https://cloud.google.com/vertex-ai/generative-ai/docs/partner-models/use-partner-models

特にAnthropic ClaudeはプレビューでBigQuery MLとの統合もアナウンスされています。より多くの選択肢を持ってLLM活用ができるのはとてもよいなと思います。

https://dev.classmethod.jp/articles/try-bigquery-ml-vertex-ai-anthropic-claude-preview/

今回は現時点でパートナーモデルをBigQueryから使うとすると、というユースケースもご紹介しました。

最後に

Midosuji Tech #2の資料についてご共有しました。参考になりましたら幸いです。